Съперниците на Nvidia се прицелват в нейното софтуерно господство

Конкурентите и най-големите клиенти на Nvidia се сплотяват зад самодейност, ръководена от OpenAI, за създаване на програмен продукт, който ще улесни разработчиците на изкуствен интелект да се откажат от нейните чипове.

Базираната в Силициевата котловина Nvidia се трансформира в най-ценния производител на чипове в света с помощта на съвсем монопола върху чиповете, нужни за основаването на огромни AI системи, само че дефицитът на доставки и високите цени карат клиентите да търсят други възможности.

Създаването на нови AI чипове обаче взема решение единствено част от казуса. Въпреки че Nvidia е най-известна със своите мощни процесори, фигури от промишлеността споделят, че „ тайният сос “ е нейната софтуерна платформа, Cuda, която разрешава на чипове, в началото проектирани за графики, да форсират AI приложенията.

В миг, когато Nvidia влага съществено в разширение на своята софтуерна платформа, съперници, в това число Intel, AMD и Qualcomm, се прицелват в Cuda с вярата да привлекат клиенти – с нетърпеливата поддръжка на някои от най-големите компании в Силиконовата котловина.

Инженерите на Meta, Microsoft и Гугъл оказват помощ в създаването на Triton, програмен продукт за дейно осъществяване на кода на необятна гама AI чипове, който OpenAI пусна през 2021 година

Дори до момента в който не престават да харчат милиарди долари за най-новите си артикули, огромните софтуерни компании се надяват, че Triton ще помогне да се разчупи хватката, която Nvidia има върху AI хардуера.

„ По създание той нарушава блокирането на Cuda “, сподели Грег Лавандър, основен софтуерен шеф на Intel.

Nvidia господства на пазара за създаване и внедряване на огромни езикови модели, в това число системата зад ChatGPT на OpenAI. Това увеличи оценката му до над 2 трилиона $ и остави съперниците Intel и AMD да се борят да настигнат. Тази седмица анализаторите чакат Nvidia да регистрира, че последните й тримесечни доходи са се нараснали повече от три пъти на годишна база, като облагите са се нараснали повече от шест пъти.

Но хардуерът на Nvidia се трансформира в толкоз гореща стока единствено заради съпътстващия програмен продукт, който е създаден в продължение на съвсем две десетилетия, създавайки страховит „ трап “, който съперниците се борят да преодолеят.

„ Това, което Nvidia прави, с цел да си изкарва прехраната, не е [просто] построяването на чипа: ние построяваме цялостен суперкомпютър, от чипа през системата до връзките ... само че доста значимо е софтуерът, ” сподели основният изпълнителен шеф Дженсън Хуанг на своята GPU софтуерна конференция през март. Той разказа софтуера на Nvidia като „ операционната система “ на AI.

Основана преди повече от 30 години, с цел да се насочи към геймърите на видеоигри, насочването на Nvidia към AI беше улеснено от нейния програмен продукт Cuda, който компанията сътвори през 2006 година, с цел да даде опция на приложения с общо предопределение да работят на нейните графични процесори.

Оттогава Nvidia влага милиарди долари, с цел да построи стотици софтуерни принадлежности и услуги, с цел да направи осъществяването на AI приложения на своите GPU по-бързо и по-лесно. Ръководителите на Nvidia споделят, че в този момент наемат два пъти повече софтуерни инженери, в сравнение с хардуерен личен състав.

„ Мисля, че хората подценяват това, което Nvidia в действителност е основала “, сподели Дейвид Кац, сътрудник в Radical Ventures, вложител, фокусиран върху AI.

„ Те построиха екосистема от програмен продукт към своите артикули, който е ефикасен, елементарен за потребление и фактически работи – и прави доста комплицирани неща елементарни “, добави той. „ Това е нещо, което се е развило с голяма общественост от консуматори за доста дълго време. “

Въпреки това, високата цена на продуктите на Nvidia и дългата опашка за закупуване на най-модерното съоръжение, като H100 и идния „ супер чип “ GB200, накараха някои от най-големите клиенти – в това число Microsoft, Amazon и Мета - да търсят други възможности или да разработят свои лични.

Тъй като обаче множеството AI системи и приложения към този момент работят със софтуера Cuda на Nvidia, за разработчиците е времеемко и рисковано да ги пренапишат за други процесори, като MI300 на AMD, Gaudi 3 на Intel или Trainium на Amazon.

„ Работата е там, че в случай че желаете да се конкурирате с Nvidia в това пространство, освен би трябвало да изградите хардуер, който е конкурентен, само че и да го извършите елементарен за потребление “, сподели Генадий Пехименко, гл. изпълнителен шеф на CentML, програмен продукт за основаване на започващи компании за усъвършенстване на AI задания, и доцент по компютърни науки в Университета на Торонто. „ Чиповете на Nvidia са в действителност положителни, само че съгласно мен най-голямото им преимущество е от страна на софтуера. “

Конкуренти като TPU AI чиповете на Гугъл може да предложат сравнима продуктивност в бенчмарк проби, само че „ удобството и софтуерната поддръжка вършат огромна разлика “ в интерес на Nvidia, съгласно Пехименко.

Ръководителите на Nvidia настояват, че нейната софтуерна работа прави допустимо внедряването на нов AI модел на най-новите й чипове за „ секунди “ и предлага непрекъснати усъвършенствания на успеваемостта. Но тези преимущества идват с измама.

„ Виждаме доста блокиране на Cuda в [AI] екосистемата, което прави доста мъчно потреблението на хардуер, друг от Nvidia “, сподели Мерием Арик, съосновател на TitanML, Лондон основано на AI пускане. TitanML стартира да употребява Cuda, само че миналогодишният дефицит на GPU го накара да пренапише продуктите си в Triton. Арик сподели, че това е помогнало на TitanML да завоюва нови клиенти, които желаят да избегнат това, което тя назова „ налог Cuda “.

Triton, чийто основател Philippe Tillet беше нает от OpenAI през 2019 година, е с отворен код, което значи, че всеки може да преглежда, приспособява или усъвършенства неговия код. Поддръжниците настояват, че това дава на Triton присъща прелест за разработчиците спрямо Cuda, която е благосъстоятелност на Nvidia. Triton стартира да работи единствено с GPU на Nvidia, само че в този момент поддържа MI300 на AMD, като скоро се възнамерява поддръжка за Gaudi на Intel и други ускорителни чипове.

Meta, да вземем за пример, сложи софтуера Triton в основата на своя лично създаден AI чип, MTIA. Когато Meta пусна второто потомство на MTIA предишния месец, неговите инженери споделиха, че Triton е „ високо ефикасен “ и „ задоволително хардуерно агностичен “, с цел да работи с набор от архитектури на чипове.

Разработчиците от противниците на OpenAI като Anthropic — и даже самата Nvidia — също са работили върху подобряването на Triton, съгласно регистрационни файлове в GitHub и диалози за инструментариума.

Triton не е единственият опит да се оспори софтуерното преимущество на Nvidia. Intel, Гугъл, Arm и Qualcomm са измежду членовете на UXL Foundation, промишлен алианс, разработващ опция на Cuda, основана на платформата OneAPI с отворен код на Intel.

Крис Латнър, изтъкнат някогашен старши инженер в Apple, Tesla и Гугъл, започва Mojo, език за програмиране за разработчици на AI, чието показване включва: „ Не се изисква Cuda “. Само дребна част от международните софтуерни разработчици знаят по какъв начин да кодират с Cuda и е мъчно да се научат, твърди той. Със своя стартъп Modular Lattner се надява, че Mojo ще направи „ фрапантно по-лесно “ построяването на AI за „ разработчици от всевъзможен тип – освен за елитните специалисти в най-големите компании за AI “.

„ Днешният AI програмен продукт е основан благодарение на софтуерни езици от преди повече от 15 години, сходно на потреблението на BlackBerry през днешния ден “, сподели той.

Дори в случай че Triton или Mojo са конкурентни, на съперниците на Nvidia отново ще са нужни години, с цел да настигнат преднината на Cuda. Анализаторите от Citi неотдавна пресметнаха, че делът на Nvidia в пазара на генеративни AI чипове ще намалее от към 81 % през идната година до към 63 % до 2030 година, което допуска, че ще остане преобладаващ за доста години напред.

„ Изграждането на конкурентен чип против Nvidia е сложен проблем, само че по-лесен от построяването на целия софтуерен стек и карането на хората да стартират да го употребяват “, сподели Пехименко.

Lavender на Intel остава оптимистично надъхан. „ Софтуерната екосистема ще се развива “, сподели той. „ Мисля, че игралното поле ще се изравни. “

Допълнителен репортаж от Камила Ходжсън в Лондон и Майкъл Актън в Сан Франциско